PAIR: Preference-Aligned Intent Retrieval for Premium People Recommendation at LinkedIn
PAIR:LinkedIn 高级用户人推荐的偏好对齐意图检索
🧭 偏好对齐检索 · LLM Embedding ★ 深度解读
用曝光条件偏好对比学习与可增量更新的历史注意力,将 LinkedIn Premium 人推荐检索 MAR@100 提升 56%,线上 CTR +7.5%
📌 工作参考价值(4 点)
- 用「曝光未点击」当负样本,而不是随机负样本:把生产日志里同批次曝光但未点击的候选作为难负例,随机样本作为易负例,可以让召回模型直接对齐线上检索策略的曝光分布,比 ANN 硬负挖掘更贴合真实曝光偏差。电商/广告召回可以直接复用这个负样本构造思路,尤其是多路召回混合的场景。
- 静态画像与动态意图分离,行为更新只在 embedding 空间做:Profile tower 和 Document tower 离线预计算,用户历史用最近 K 个点击 item 的预计算 embedding + positional attention 聚合成意图向量,更新复杂度 O(Kd),不需要在线重过 LLM。适合大规模实时个性化,对需要频繁更新用户表示的推荐系统尤其有价值。
- Matryoshka 训练让一个模型同时服务多种维度预算:在训练时同时对 200/256/512/1024 维前缀计算 loss,线上可按 latency/storage 截断,不需要为不同业务线训练多个模型。电商多场景召回/粗排可以合并训练,降低模型维护成本。
- 工程细节可直接抄:bf16 而非 fp16 防止 DeepSpeed 梯度溢出;温度设 0.02;离线指标优先看 MAR@k,ACC 在小候选集容易饱和,MAR@k 更能反映排序召回质量。